Cấp bậc này được đặt ra từ tháng 3 năm 1935. Ban đầu cấp hiệu cấp bậc Nhất cấp Thượng tướng và Thượng tướng giống nhau, đều dùng 3 tam giác vàng đính trên tiết đeo cổ áo. Từ năm 1947, cấp hiệu Nhất cấp Thượng tướng được cải giống như cấp hiệu quân đội Mỹ, dùng 4 ngôi sao bạc như cấp hiệu Đại tướng Hoa Kỳ. Danh xưng Nhất cấp Thượng tướng dùng chung cho tất cả mọi quân chủng.

Trong suốt thời kỳ Đại lục, có 11 quân nhân được phong cấp Đại tướng (5 người khác được truy phong), trừ Hà Ứng Khâm và Trần Thành thuộc phe cánh của Đặc cấp Thượng tướng Tưởng Giới Thạch, còn lại đều xuất thân là quân phiệt địa phương.